Yakir được sinh ra ở Kishinev, Bessarabia, Đế quốc Nga, trong gia đình của một dược sĩ Do Thái giàu có. Ông tốt nghiệp trường trung học địa phương năm 1914. Bởi vì các hạn chế của chính phủ về giáo dục với người Do Thái, Yakir đã học tại Đại học Basel ở Thụy Sĩ, chuyên ngành hóa học.

Trong Thế Chiến thứ Nhất, ông trở về Đế quốc Nga và làm việc trong một nhà máy quân sự ở Odessa, Ukraine. Từ 1915 đến 1917, ông đã làm việc tại Viện Công nghệ Kharkiv. Ông bị ảnh hưởng bởi chiến tranh và trở thành một tín đồ của Vladimir Lenin. Năm 1917, ông trở về Kishinev và tháng 4 trở thành thành viên của đảng Bolshevik. Ông cũng trở thành một thành viên của Hội đồng Quản lý Bessarabia, Ủy ban của Chính phủ và Ủy ban Cách mạng. Từ tháng 1 năm 1918, ông tham gia tích cực trong vụ bắt giữ các thành viên Bolshevik đối lập ở Bessarabia. Khi Romani can thiệp để chiếm lại Bessarabia, Yakir đã phản kháng nhưng lực lượng nhỏ của ông đã bị quân đội Rumani đánh bại.